TaoLive Digital Avatar Agent Technical Report: Training Agents to Evolve with Their Harness
TaoLive 数字人直播 Agent 技术报告：训练 Agent 随 Harness 共同演化
🧭 直播电商 Agent 训练与 Harness 演化 ★ 深度解读
TaoLive AIGC LLM Team
HAT 通过 Harness-State Augmentation 训练紧凑模型，使直播 Agent 在低延迟下随 Harness 演化并保持通用能力
📌 工作参考价值（4 点）
- 把业务策略（Skills、Hooks、prompt、tool schemas）从模型权重中解耦，用可独立版本化的 Harness 模块做诊断-编辑-评估闭环；策略更新从重训变成小时级上线，适合电商运营规则、合规要求高频变化。
- 训练数据只覆盖单一 Harness 会让小模型记 skill 名/工具名/模板，上线后策略一改就崩；用 HSA 对 skill 名与内容、tool schema、prompt 结构、Hook 行为做任务保持扰动，构造多种 Harness 配置让模型学会读当前指令而非背固定版本。消融显示 HSA-SFT 收益远大于 HSA-RL，优先在 SFT 阶段做增强。
- General OPD 以预训练基座为 teacher，在通用指令数据上做 on-policy KL 蒸馏，能找回领域 SFT 损失的通用指令能力（IFEval +8.5），比单纯加回通用 SFT 更贴合低延迟 agent 场景。
- 低并发实时直播用单卡 H20 + MTP 投机解码可把 P95 压到 8.1s、吞吐提升 1.7x；但高并发下 MTP 收益递减，应预留副本而不是把它当高吞吐优化。Hooks/超时/降级路由做防御性深度，避免模型幻觉造成事实性风险。